LLM-Based User Personas for Recommendations at Scale
基于LLM的实时用户兴趣画像生成用于大规模视频推荐
🧭 LLM实时用户理解与兴趣探索 ★ 深度解读
Google Deepmind · Google
用知识蒸馏与异步推理实现在线LLM生成自然语言用户兴趣画像，平衡利用与探索，显著提升观看价值
📌 工作参考价值（5 点）
- 用户行为结构化输入：用语义聚类（salient terms）将离散观看记录聚合成主题簇，作为LLM的输入，比原始序列或ID更精准；电商场景可借鉴，将用户点击/购买序列用商品title或类目聚类，提升用户画像粒度。
- 大模型蒸馏小模型部署：通过多步推理工作流让大模型（Gemini Pro）生成高质量训练数据（总结+探索），蒸馏为小模型（Nano/Flash）完成在线推理，平衡成本与效果；这种“大模型做老师”的模式可复用于线上需要实时生成文本的任务。
- 异步推理与缓存架构：将LLM推理与用户请求解耦，仅在画像过期或缺失时异步生成，避免实时延迟，并可配置更新频率；电商推送或推荐场景中，可异步生成用户兴趣标签、文案，不影响主链路响应。
- 探索兴趣的随机采样与受限检索：每个请求中随机采样一条总结兴趣和一条探索兴趣，强制均匀探索，对抗排序模型的流行度偏差；这一机制可直接用于推荐系统的多样性注入，尤其适合解决探索-利用的平衡问题。
- 探索兴趣高转化但曝光不足的启示：实验显示探索兴趣曝光量少但转化率高13.6%，暗示下游排序模型存在“安全”偏好；可在排序阶段为探索内容设置加权或保量策略，放大LLM生成内容的收益。